庙宇始建于南宋建炎元年（1127年），明代洪武二十七年改建为玄武庙，明代万历五年扩建为玄武山元山寺。经明、清、民国几次修葺，现已颇具规模。玄武山元山寺气势磅礴，建筑非凡。依山势递筑为一组四合院的对称式宫殿群体庙宇，三进殿宇沿多次台阶直通正殿，庙宇格局设计精确，遮阳曲径四通八达，有山门、前殿、中殿、配殿、厅堂、僧房和廊庑等建筑物99间。其整体建筑融宗教建筑、宫殿建筑、民居建筑、园林建筑于一体，具有鲜明的地方建筑特色。它建筑结构严谨，重斗叠拱、高脊飞檐、雕梁画栋、传统瓷贴，充分体现了中国劳动人民的智慧和高超的建筑技术。寺内金碧辉煌；正门上雕龙画凤，装饰精美；门两边两只石狮威武有生气，宛若两个尽职的卫士日夜守护着玄武山元山寺。　　　　

　　一进寺门，可看到里面陈列着众多珍贵的历史文物，其中有：宋代的“北极真武”铜铸像，明代的“释加牟尼”木雕像和宣德香炉，还有清代同治皇帝书赐的“威宣岭表”匾额，清代民族英雄林则徐书赠的“水德灵长”匾额和黑旗军首领刘永福题赠的匾额共3面的“中华文化名匾”。玄武山元山寺是粤东最大、文物保存最完整的宗教庙宇之一，是广东省重点文物保护单位和重点风景名胜区。　　　　

　　玄武山元山寺的背后是“福星垒塔”(俗称“玄山塔”）。该干塔为八角形，共3层，高18.8米，塔基周长24米，共用5340多块规格的花岗岩叠成，是一座巨形古艺建筑。塔内有螺旋石梯。拾级而上，第一层是“三元宫”，宫名由商承柞题写，第二层是“文昌殿，殿名由李妮题写；第三层是“魁垣”，两字由秦萼生题写。塔的每层四周群龙含珠，姿态各异，栩栩如生。数只铜钟挂于顶层，风吹叮当作响，声清韵圆。底座四周刻有飞禽走兽，逼真活脱，特别是前面含珠的石狮，更是活灵活现.该塔始建于万历五年（1577年），为土塔，称“福星亭”；清嘉庆二十一年（1816年）改建为文昌阁；清代咸丰戌午年为飓风所毁；清代同治四年（1865年）重建，改造为八角形三层阁式石塔，始称“福星塔”；文革期间的庚戌年腊月炸毁，1981年重建，为花岗岩石塔。它历来是南海碣石湾的导航标志，有“佛灯引明”之称。登上塔顶，碣石镇建筑尽收眼底，远眺可见浩翰的南海，周围的风景迷人，令人心旷神怡。此处名为“碣石观海”，是陆丰旧八景之一。

　　玄武山元山寺前面有一古戏台，始建于明代万历年间，清乾隆十五年（1750年）重建，文革期间被毁，80年代复建。台基高1.5米，面宽22米，造形古朴，气势雄伟，各种木刻石雕，人物花鸟，千姿百态、栩栩如生。台内还悬挂有清代广东金石文学家探花李文田题刻的“台阁文章”匾额。玄武山元山寺戏台是目前广东省历史最久、规模最大的庙宇戏台。　　　　

　　玄武山山上还有形状别致的麒麟石、龙门石、起龙岩、太平石，建筑雅致的四美亭、白得居通栏等优美景点。玄武山山下还有鲜为人知的古迹名胜，如古卫城遗址、浅澳古炮台和镇内的广德禅院、功德祠、城隍庙、集福庵、高山寺、石洲南关古庙等。古卫城建于洪武二十七年，位于龙泉山下，环绕碣石重镇，因基垒石，为台而亭之，登高眺山海之胜；浅澳古炮台位于距碣石镇约五公里的天涯海角，建于清代，是扼守碣石重镇的门户，立身台堡，登山观海，海阔天空，水天一色，帆影点点，尽收眼底；田尾山依山隅海，拥有最多的海蚀柱和浪蚀纹沟等造形地貌，退潮时，奇异多彩的海蚀柱（海石体、海蘑菇、石龟、风帆、海上仙人、凤凰、海龙、海象等）造形展现在游人眼前，仿佛置身于浩翰的海上雕塑公园之中，令人如痴如醉；再有田尾山下的浅澳村天后宫和成荫古榕树，山顶的花岗岩石蛋的造型“公背婆石”，海上的海底公园和海市蜃楼等。这些海角石林、奇石奇光，形成了天涯风光的旅游景区。